We Query, Therefore We Compute: On Oracle Computation beyond the Machine, with an Application to Agents
我们查询,故我们计算:机器之外的 Oracle 计算及其在 Agent 中的应用
🧭 Agent 系统抽象计算模型
Institute of Computing Technology, CAS · University of Chinese Academy of Sciences · Nanjing University · Institute of Automation, CAS · Nanyang Technological University
将 LLM 作为 Oracle 构建抽象机,统一 Workflow 和 Agent,并提出 ArchNights 操作系统实现
📌 工作参考价值(4 点)
- 将 Agent 控制流与 LLM 推理分离:把业务状态机、调度和审计放在确定性代码(Priestess)中,让 LLM 只作为 Oracle 做内容生成或决策,可显著降低系统不确定性,便于测试、回滚与灰度发布。
- 借鉴“栈即上下文”和查询指令设计:每次查询将整个上下文栈交给 LLM 并追加结果,明确上下文边界;缓存可以基于栈内容哈希实现,重复上下文直接跳过 LLM 调用,适合推荐话术生成、商品摘要、广告文案等高频相似场景。
- 对称破缺区分 Workflow 与 Agent:任务程序放在控制流侧是可控的工作流,放在 LLM 侧生成则是自主 Agent;业务中可混合部署,关键链路用 Workflow 保证 SLA,探索性任务用 Agent 提升灵活性。
- 借鉴 OS 抽象:在 Agent 平台中显式实现调度、隔离、持久化和缓存等机制,而不是每个 Agent 自建一套;ArchNights 表明可在扩展 ISA/OS 层面承载 LLM 查询,为统一资源管理和性能边界提供参考。